Trong Loạn bát vương

Năm 290, khi Tư Mã Cận chết, Tư Mã Duệ được tập tước Lang Nha vương. Trong Loạn bát vương, Tư Mã Duệ tham gia phái của Đông Hải vương Tư Mã Việt. Khi nội bộ mâu thuẫn, Thành Đô vương Tư Mã Dĩnh giết Đông An vương Tư Mã Do. Tư Mã Duệ sợ bị liên luỵ, bèn cùng văn thần Vương Đạo mưu bỏ trốn về quận Lang Nha. Tuy nhiên Tư Mã Dĩnh đoán biết ý đó, bèn ra lệnh phong tỏa các bến đò. Dù đã thay đổi quần áo nhưng khi ra tới bến đò sông Hoàng Hà, ông vẫn bị người gác nghi vấn chặn lại. Lúc đó có tùy tùng là Tống Điển nhanh trí lấy roi ngựa đập lên người ông nói:

Viên lại giữ bến đò nghe thế không còn nghi ngờ ông, bèn thả cho đi.

Năm 305, Tư Mã Duệ được Tư Mã Việt cử làm Bình Đông Tướng quân, đóng quân ở Hạ Phì, trông coi việc quân sự ở Từ Châu. Tư Mã Duệ dùng Vương Đạo (276–339) làm Quân Tư mã.

Xây dựng thế lực ở Giang Nam

Năm 307, Tư Mã Duệ được Đông Hải vương Tư Mã Việt cho phép đến đóng tại Kiến Khang, giữ chức Đô đốc Dương Châu[1] trông coi việc quân sự ở Giang Nam. Khi Tư Mã Duệ đến nhậm chức chỉ có một số ít người ra đón. Theo đề nghị của Vương Đạo, Tư Mã Duệ tranh thủ sự ủng hộ của các đại tộc lớn Chu, Cam, Cố, Tạ, Kỷ mời những người người có tiếng tăm như Cố Vinh, Hạ Tuân tham gia chính quyền. Họ Vương giữ vai trò chủ chốt trong chính quyền vùng Dương Châu.

Năm 312, Thạch Lặc từ Giang Bắc đến đóng quân ở Cát Bi (bắc huyện Tân Thái, Hà Nam), chuẩn bị lực lượng tấn công vào Kiến Nghiệp. Tư Mã Duệ vội điều động quân đội đến Thọ Xuân, bổ nhiệm Trấn Đông Trưởng sử Kỷ Chiêm làm Dương Uy Tướng quân, đô đốc quân đội. Nhân lúc quân Thạch Hổ (em họ Thạch Lặc) mải cướp lương thực, quân Tấn tập kích đánh cho đại bại phải rút về phương bắc. Khi Thạch Lặc rút quân, quân Tấn thực hiện chính sách vườn không nhà trống làm cho quân Thạch Lặc không kiếm được lương.

Trước đó tại Giang Nam, tướng Vương Đôn (Phò mã của Tấn Vũ Đế), nguyên Thứ sử Thanh Châu, được Đông Hải vương Tư Mã Việt cử làm Thứ sử Dương Châu, xua quân xuống phía nam, quét sạch các lực lượng vũ trang cát cứ tại khu vực nằm giữa sông Trường Giang và sông Hoài, thế lực bước đầu có quy mô.

Năm 311, dân lưu lạc tại Kinh-Tương do Đỗ Thao cầm đầu khởi nghĩa chống lại nhà Tấn, bị lực lượng của Vương Đôn trấn áp. Vương Đôn thừa cơ sáp nhập vùng trung du của Trường Giang vào phạm vi thế lực của họ Vương. Cùng năm đó, Vương Đôn kiêm nhiệm đô đốc quân sự 6 châu Giang, Dương, Kinh, Tương, Giao, Quảng, trở thành tập đoàn quân sự lớn nhất ở phía nam.

Năm 313, Tấn Mẫn Đế lên ngôi, phong cho ông làm Tả thừa tướng.